import torch
from torch import nn
import torch.nn.functional as F

# 加载和保存张量;对于单个张量，我们可以直接调用load和save函数分别读写它们。这两个函数都要求我们提供一个名称，save要 求将要保存的变量作为输入。
x = torch.arange(4)
torch.save(x, 'x-file')  # 写文件save
x1 = torch.load('x-file')  # 读文件load
x1

# 还可以存储一个张量列表（即一维张量）
y = torch.zeros(4)
torch.save([x, y], 'x-files')
x2, y2 = torch.load('x-files')  # 注意列表得多个单一变量进行实例化，否则也要使用列表
x_list = []
x_list = torch.load('x-files')

# 我们甚至可以写入或读取从字符串映射到张量的字典。当我们要读取或写入模型中的所有权重时，这很方便。
mydict = {'x': x, 'y': y}  # 构造一个字典，记得是大括号
torch.save(mydict, 'mydict')
mydict1 = torch.load('mydict')
mydict1

# 加载和保存模型参数,。需要注意的一个重要细节是，这将保存模型的参数而不是保存整个模型
# 例如，如 果我们有一个3层多层感知机，我们需要单独指定架构。
class MLP(nn.Module):
    def __init__(self):
        super(MLP, self).__init__()
        self.hidden = nn.Linear(20, 256)
        self.out = nn.Linear(256, 10)

    def forward(self, X):
        return self.out(F.relu(self.hidden(X)))
net = MLP()
X = torch.randn(3, 20)
net(X)

# 接下来，我们将模型的参数存储在一个叫做"mlp.params"的文件中。
torch.save(net.state_dict(), 'mlp.params')
# 为了恢复模型，我们实例化了原始多层感知机模型的一个备份
MLP_clone = MLP()
MLP_clone.load_state_dict(torch.load('mlp.params'))  # 模型读取参数load_state_dict + torch.load
MLP_clone.eval()
net(X) == MLP_clone(X)  # 由于两个实例具有相同的模型参数，在输入相同的X时，两个实例的计算结果应该相同。让我们来验证一下

# PS:模型保存也可以直接用，以上所有的torch.save路径默认都是当前工作目录
model = net
torch.save(model, 'model.pkl')
# - save和load函数可用于张量对象的文件读写。
# - 我们可以通过参数字典保存和加载网络的全部参数。
# - 保存架构必须在代码中完成，而不是在参数中完成。
